Năm 1955, ông được phong nguyên soái và thường xuất hiện bên cạnh Mao Trạch Đông như nhân vật số hai trong quân đội.

Năm 1955, Lâm Bưu vào Bộ Chính trị Đảng Cộng sản Trung Quốc cùng lúc với Đặng Tiểu Bình và đến năm 1958, Lâm Bưu là một trong 5 Phó Chủ tịch Đảng Cộng sản Trung Quốc.

Năm 1966, Lâm Bưu nhảy từ vị trí thứ 6 lên vị trí thứ 2 khi trở thành Phó Chủ tịch Đảng duy nhất.

Tại Đại hội Đảng Cộng sản Trung Quốc lần thứ IX (1969) Lâm Bưu là Phó Chủ tịch Đảng duy nhất và được chọn là người kế vị Mao Trạch Đông, được mệnh danh là "Phó Thống soái".

Lâm Bưu còn là Phó Thủ tướng từ năm 1954 cho đến lúc mất (1971).

Năm 1959, Lâm Bưu giữ chức Bộ trưởng Quốc phòng thay Bành Đức Hoài đang bị đình chỉ mọi chức vụ và quản chế tại nhà riêng. Lâm Bưu cũng được coi là kiến trúc sư của Cách mạng Văn hóa.